CACHE-UK: A Stability-Aware Memory Editor for Sequentially Updated Quantized LLMs in Finance
面向量化金融大模型的稳定性感知记忆编辑器
🧭 量化LLM的序列记忆编辑稳定性
Indian Institute of Technology Madras, Chennai, India · University of Birmingham, Birmingham, United Kingdom
提出CACHE-UK框架，通过低秩适配器、领域优先模块和稳定性控制器，缓解4-bit量化LLM在序列编辑中的灾难性遗忘
📌 工作参考价值（4 点）
- 量化推荐模型的实时事实更新：在电商推荐中，商品信息（价格、库存、描述）频繁变化，可在4-bit量化部署的LLM推荐模型上借鉴CACHE-UK的rank-1 LoRA机制，将更新隔离在低秩子空间，避免全参数扰动引起的推荐质量雪崩。
- 抗遗忘的增量知识注入：稳定性控制器跟踪“退化债务”的理念可迁移到推荐模型的持续学习，当新商品或活动上线时，通过闭环监控减少对已有用户兴趣建模的覆盖。
- 内容自适应的编辑强度：领域优先模块根据输入内容调整编辑幅度，可类比于推荐中不同物品类型（爆款 vs. 长尾）采用差异化的更新步长，提升精细控制。
- 低资源下的工程可行性：整套框架专为量化模型设计，适合边缘推理或低延迟场景，可参考其适配方案让推荐模型的在线事实更新更省资源。